Theo văn bia năm Chính hòa 24 (1703) đời vua Lê Hy Tông (1676 - 1705) do Tiến sĩ Hồ Tông Mục soạn ghi "chùa xây tại Hòe Nhai tại bến Đông Bộ Đầu". Văn Bia còn có đoạn miêu tả vị thế chùa như sau:

"Hồng Phúc ở Hà Thành

Núi Nùng như vạt áo

Sông Nhị như giải lưng

Hồ Trúc Bạch chắn ngang

Dòng Tô Lịch vòng lại

Đây thực là chốn Tùng Lâm lâu đời của đất Thăng Long..."

Chùa Hòe Nhai trải qua nhiều lần sửa chữa lớn khá thường xuyên vào các năm 1699, 1703, 1812, 1894, 1920, 1946, 2010. Phạm vi chùa trước kia khá lớn, sang thời Pháp thuộc bị thu lại như hiện nay.

Chùa này là chốn đại tổ đình của Phật giáo miền Bắc nói riêng và Việt Nam nói chung từ thế kỷ 17, có đến 2 vị quốc sư, 5 vị Tăng Thống, Pháp chủ xuất thân, trụ trì ở đây – một điều vô cùng hiếm gặp ở các chùa Việt nam :

• Đạo Nam Quốc Sư, Thông Giác Thủy Nguyệt Thiền Sư, Đại Tổ Tông Tào Động Việt Nam.
• Đại Tuệ Quốc Sư, Chân Dung Tông Diễn Thiền sư , Nhị tổ Tông Tào Động Việt Nam.
• Tăng Thống Tịnh Giác Từ Sơn Hành Nhất Thiền Sư .
• Tăng Thống Hải Điện Mật Đa Thiền Sư .
• Tăng Thống Khoan Dực Phổ Chiếu Thiền Sư .
• Thiền gia pháp chủ Thích Thanh Hanh Đại Lão Hòa Thượng (1840 – 1936) , đây là ngôi chùa ngài xuất gia năm 10 tuổi với sư tổ họ Nguyễn ở đây .
• Pháp Chủ Thích Đức Nhuận Đại Lão hòa thượng (1897 – 1993) trụ trì chùa giai đoạn 1980 – 1993.